Desbloquee la inferencia de IA rentable utilizando las capacidades sin servidor de Amazon Bedrock con un modelo capacitado en Amazon SageMaker

En esta publicación, te mostraré cómo usar Roca Amazónica—con su API bajo demanda totalmente administrada—con su Amazon SageMaker modelo entrenado o ajustado.

Amazon Bedrock es un servicio totalmente administrado que ofrece una selección de modelos básicos (FM) de alto rendimiento de empresas líderes en inteligencia artificial como AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI y Amazon a través de una única API, junto con un amplio conjunto de capacidades para crear aplicaciones de IA generativa con seguridad, privacidad e IA responsable.

Anteriormente, si deseaba utilizar sus propios modelos personalizados y ajustados en Amazon Bedrock, tenía que autoadministrar su infraestructura de inferencia en SageMaker o entrenar los modelos directamente dentro de Amazon Bedrock, lo que requiere un costoso rendimiento aprovisionado.

Con Importación de modelos personalizados de Amazon Bedrockpuede utilizar modelos nuevos o existentes que hayan sido entrenados o ajustados dentro de SageMaker usando Inicio rápido de Amazon SageMaker. Puede importar las arquitecturas admitidas a Amazon Bedrock, lo que le permite acceder a ellas a pedido a través de la API del modelo de invocación totalmente administrada de Amazon Bedrock.

Descripción general de la solución

Al momento de escribir este artículo, Amazon Bedrock admite importar modelos personalizados de las siguientes arquitecturas:

• Mistral
• Flan
• Meta Llama 2 y Llama 3

Para esta publicación, utilizamos un Abrazando la cara Flan-T5 Base modelo.

En las siguientes secciones, le explicaré los pasos para entrenar un modelo en SageMaker JumpStart e importarlo a Amazon Bedrock. Luego podrás interactuar con tu modelo personalizado a través de los parques infantiles de Amazon Bedrock.

Requisitos previos

Antes de comenzar, verifique que tenga una cuenta de AWS con Amazon SageMaker Estudio y acceso a Amazon Bedrock.

Si aún no tiene una instancia de SageMaker Studio, consulte Inicie Amazon SageMaker Studio para obtener instrucciones para crear uno.

Entrenar un modelo en SageMaker JumpStart

Complete los siguientes pasos para entrenar un modelo de Flan en SageMaker JumpStart:

1. Abra la Consola de administración de AWS y vaya a SageMaker Studio.

2. En SageMaker Studio, elija Empezar en el panel de navegación.

Con SageMaker JumpStart, los profesionales del aprendizaje automático (ML) pueden elegir entre una amplia selección de FM disponibles públicamente utilizando soluciones de aprendizaje automático prediseñadas que se pueden implementar con unos pocos clics.

3. Busca y elige el Abrazando la cara Flan-T5 Base

En la página de detalles del modelo, puede revisar una breve descripción del modelo, cómo implementarlo, cómo ajustarlo y en qué formato deben estar sus datos de entrenamiento para personalizar el modelo.

4. Elegir Tren para comenzar a ajustar el modelo en sus datos de entrenamiento.

Cree el trabajo de entrenamiento usando la configuración predeterminada. Los valores predeterminados completan el trabajo de capacitación con la configuración recomendada.

5. El ejemplo de esta publicación utiliza un conjunto de datos de ejemplo previamente completado. Cuando utilice sus propios datos, introduzca su ubicación en el Datos sección, asegurándose de que cumpla con requisitos de formato.

6. Configure los ajustes de seguridad como Gestión de acceso e identidad de AWS (IAM) rol, nube privada virtual (VPC) y cifrado.
7. Tenga en cuenta el valor de Ubicación del artefacto de salida (URI de S3) para usar más tarde.
8. Envíe el trabajo para comenzar a capacitarse.

Puede monitorear su trabajo seleccionando Capacitación en el Empleos menú desplegable. Cuando el estado del trabajo de capacitación se muestra como Terminadoel trabajo ha terminado. Con la configuración predeterminada, el entrenamiento dura unos 10 minutos.

Importar el modelo a Amazon Bedrock

Una vez que el modelo haya completado el entrenamiento, puede importarlo a Amazon Bedrock. Complete los siguientes pasos:

1. En la consola de Amazon Bedrock, elija Modelos importados bajo Modelos de cimentacion en el panel de navegación.
2. Elegir Importar modelo.

3. Para Nombre del modeloingrese un nombre reconocible para su modelo.
4. Bajo Configuración de importación de modeloseleccionar Modelo de Amazon SageMaker y seleccione el botón de radio al lado de su modelo.

5. Bajo Acceso al servicioseleccionar Crear y utilizar un nuevo rol de servicio e ingrese un nombre para el rol.
6. Elegir Importar modelo.

7. La importación del modelo se completará en unos 15 minutos.

8. Bajo Parques infantiles en el panel de navegación, elija Texto.
9. Elegir Seleccionar modelo.

10. Para Categoríaelegir Modelos importados.
11. Para Modeloelegir flan-t5-afinado.
12. Para Rendimientoelegir Bajo demanda.
13. Elegir Aplicar.

Ahora puede interactuar con su modelo personalizado. En la siguiente captura de pantalla, utilizamos nuestro modelo personalizado de ejemplo para resumir una descripción sobre Amazon Bedrock.

Limpiar

Complete los siguientes pasos para limpiar sus recursos:

1. Si no vas a seguir usando SageMaker, elimine su dominio SageMaker.
2. Si ya no desea mantener los artefactos de su modelo, eliminar el depósito de Amazon Simple Storage Service (Amazon S3) donde se almacenan los artefactos de su modelo.
3. Para eliminar su modelo importado de Amazon Bedrock, en el Modelos importados página en la consola Amazon Bedrock, seleccione su modelo y luego elija el menú de opciones (tres puntos) y seleccione Borrar.

Conclusión

En esta publicación, exploramos cómo la función Importación de modelo personalizado en Amazon Bedrock le permite utilizar sus propios modelos personalizados entrenados o ajustados para realizar inferencias rentables y bajo demanda. Al integrar las capacidades de capacitación de modelos de SageMaker con la infraestructura escalable y totalmente administrada de Amazon Bedrock, ahora tiene una manera perfecta de implementar sus modelos especializados y hacerlos accesibles a través de una API simple.

Ya sea que prefiera la consola SageMaker Studio fácil de usar o la flexibilidad de las computadoras portátiles SageMaker, puede entrenar e importar sus modelos a Amazon Bedrock. Esto le permite centrarse en el desarrollo de aplicaciones y soluciones innovadoras, sin la carga de gestionar una infraestructura de aprendizaje automático compleja.

A medida que las capacidades de los grandes modelos de lenguaje continúan evolucionando, la capacidad de integrar modelos personalizados en sus aplicaciones se vuelve cada vez más valiosa. Con la función Importación de modelos personalizados de Amazon Bedrock, ahora puede desbloquear todo el potencial de sus modelos especializados y ofrecer experiencias personalizadas a sus clientes, al mismo tiempo que se beneficia de la escalabilidad y la rentabilidad de un servicio totalmente administrado.

Para profundizar en el ajuste fino de SageMaker, consulte Ajuste de instrucciones para FLAN T5 XL con Amazon SageMaker Jumpstart. Para obtener más experiencia práctica con Amazon Bedrock, consulte nuestra Construyendo con Amazon Bedrock taller.

Sobre el autor

Jose Sadler es arquitecto de soluciones senior en el equipo del sector público mundial de AWS y se especializa en ciberseguridad y aprendizaje automático. Con experiencia en el sector público y privado, tiene experiencia en seguridad en la nube, inteligencia artificial, detección de amenazas y respuesta a incidentes. Su experiencia diversa lo ayuda a diseñar soluciones sólidas y seguras que utilizan tecnologías de vanguardia para salvaguardar sistemas de misión crítica.