Hoy, nos complace anunciar una integración de enlace profundo entre Hugging Face y Amazon SageMaker AI. Los desarrolladores ahora pueden pasar del descubrimiento de modelos a la experimentación práctica en SageMaker Studio con una sola selección. Ya sea que ajuste un modelo básico (FM) desde Amazon SageMaker JumpStart o lo implemente en un punto final de Amazon SageMaker Inference, ahora puede acceder directamente al flujo de trabajo relevante de SageMaker Studio. El modelo seleccionado está precargado y el entorno está completamente configurado y listo para funcionar.
Anteriormente, comenzar con SageMaker Studio después de descubrir un modelo en Hugging Face requería seguir varios pasos. Estos incluían abrir Amazon SageMaker AI en la consola de administración de AWS, crear un dominio, configurar permisos de AWS Identity and Access Management (IAM) y, en ocasiones, solicitar una cuota de unidad de procesamiento de gráficos (GPU). Para los desarrolladores que quieren iterar rápidamente, esta fricción ralentiza el camino de la inspiración a la experimentación. La integración crea un camino más directo desde el descubrimiento hasta la implementación empresarial.
“En Arcee, creamos modelos abiertos para que los desarrolladores y las empresas puedan realmente ser dueños de lo que ejecutan: inspeccionar los pesos, entrenarlos posteriormente con sus propios datos e implementarlos en sus propios términos. Esta integración lleva esa promesa hasta el último kilómetro. Pasar de un modelo abierto en Hugging Face directamente a SageMaker Studio con un solo clic, luego ajustarlo o implementarlo dentro de su propio entorno de AWS sin nada que conectar, es el tipo de experiencia que los modelos abiertos han estado faltando. Pesos abiertos que posee, ejecutándose en la nube que usted controla. Eso Es exactamente la combinación que nuestros clientes han estado pidiendo”.
— Mark McQuade, fundador y director ejecutivo de Arcee AI
Con el lanzamiento de una experiencia de inicio de Studio con un solo clic, elegir Personalizar en SageMaker AI o Implementar en SageMaker AI en una página de modelo de Hugging Face compatible lo llevará directamente a la consola. Luego, SageMaker AI aprovisiona automáticamente un nuevo dominio con permisos preconfigurados en segundos y transmite el contexto del modelo.
Qué hay de nuevo
Este lanzamiento presenta tres capacidades que acortan el camino desde un modelo de Hugging Face hasta un flujo de trabajo funcional de SageMaker Studio.
Enlaces profundos de Hugging Face a SageMaker Studio
Cuando explora modelos en Hugging Face, ahora verá botones de acción junto con los modelos compatibles que se asignan directamente a los flujos de trabajo de SageMaker Studio:
Personalizar en SageMaker AI abre la página Personalización del modelo en Studio con el modelo seleccionado precargado, listo para realizar ajustes. Implementar en SageMaker AI abre la página Implementación en Studio con el modelo preconfigurado para la implementación de endpoints.
Cada punto de entrada conserva el contexto, lo que significa que no es necesario volver a buscar el modelo una vez dentro de Studio.
Permisos preconfigurados
Los nuevos entornos de Studio creados a través de este flujo vienen con permisos ya configurados para toda la gama de capacidades de IA de SageMaker, incluida la personalización de modelos, trabajos de capacitación, experimentación con portátiles e implementación de terminales. Se crea y adjunta una nueva política administrada, AmazonSageMakerModelCustomizationCoreAccess. Proporciona permisos para trabajos de personalización de modelos sin servidor mediante ajuste supervisado (SFT), optimización de preferencias directas (DPO), aprendizaje reforzado con recompensas verificables (RLVR) y aprendizaje reforzado a partir de comentarios de IA (RLAIF), con implementación compatible en puntos finales de SageMaker AI o Amazon Bedrock. Esto alivia la necesidad de crear y configurar manualmente roles y políticas de AWS Identity and Access Management (IAM) antes de poder comenzar a experimentar. Para los entornos de Studio existentes, los mensajes procesables con enlaces directos a la documentación lo guiarán para agregar estos permisos.
Visibilidad de cuota de GPU
Al seleccionar tipos de instancias para implementación o capacitación, la interfaz de usuario de Studio ahora muestra la disponibilidad de cuota directamente en la lista de selección de instancias. Puede ver inmediatamente qué tipos de instancias de GPU (G5, G6) están disponibles según los límites actuales de su cuenta. No es necesario navegar por separado a Cuotas de servicio. Si aún necesita solicitar un aumento del límite, se le redirigirá directamente a la página Cuotas de servicio para el tipo de instancia respectivo.
Tutorial: Enlace profundo desde Hugging Face a SageMaker Studio
Repasemos la experiencia de personalizar o implementar un modelo a partir de Hugging Face.
Paso 1: Descubre y selecciona
En la página del modelo Hugging Face, seleccione Personalizar en SageMaker AI para obtener un modelo compatible.
Paso 2: Iniciar sesión
Se le solicitará que inicie sesión en AWS con sus credenciales existentes. Si ya tiene una sesión de consola activa, este paso se omite automáticamente. Para obtener más información, consulte Iniciar sesión en la Consola de administración de AWS.
Paso 3: aterriza en el estudio
Llegará directamente a la página de Personalización del modelo dentro de SageMaker Studio con su modelo preseleccionado. A continuación, configure sus parámetros de ajuste, como datos de entrenamiento, hiperparámetros y tipo de instancia, luego envíe el trabajo de personalización.
Alternativamente, al seleccionar Implementar en SageMaker AI se abre la página de implementación de endpoints en Studio con el modelo preconfigurado. Seleccione su tipo de instancia (incluida la visibilidad de la cuota), revise la configuración e implemente.
Paso 4: Pruebe su punto final
Después de implementar su punto final, pruebe la inferencia directamente desde la interfaz de prueba de puntos finales de Studio.
Empezando
Puedes probar esta experiencia hoy:
Explora modelos en Hugging Face. Busque los botones Personalizar en SageMaker AI o Implementar en SageMaker AI en los modelos compatibles. Seleccione y siga el flujo de inicio de sesión optimizado. Comience a construir en un entorno de SageMaker Studio completamente configurado.
Conclusión
El lanzamiento de una experiencia de aterrizaje de Studio con un solo clic minimiza la fricción entre descubrir un modelo y experimentar con él. Al conectar Hugging Face directamente a los flujos de trabajo de SageMaker Studio, los desarrolladores pueden mantenerse en su flujo. No hay cambio de contexto, ni configuración manual del entorno ni resolución de problemas de permisos.
Para comenzar, visite la página de Amazon SageMaker Studio o explore modelos en Hugging Face y elija Implementar o Personalizar en SageMaker AI.
Sobre los autores
Hazim Qudah
Hazim es un arquitecto de soluciones especializado en AWS con sede en Dallas, TX. Le gusta ayudar a los clientes a crear y adoptar soluciones de IA/ML utilizando tecnologías y mejores prácticas de AWS. Antes de ocupar su puesto en AWS, pasó muchos años realizando consultoría tecnológica con clientes de muchas industrias y geografías. ¡En su tiempo libre le gusta correr y jugar con sus perros Nala y Chai!
Naidile Murali
Naidile es gerente de producto en AWS con sede en Bellevue, WA. Se centra en mejorar la experiencia de los desarrolladores de IA/ML en Amazon SageMaker AI, incluida la incorporación, la conectividad IDE y la gestión de la capacidad de GPU. Antes de AWS, trabajó como ingeniera de software en HSBC. Naidile tiene un MBA de la Universidad de Georgetown.