Hoy anunciamos Amazon SageMaker AI con MLflow, que ahora incluye una capacidad sin servidor que administra dinámicamente el aprovisionamiento, el escalado y las operaciones de infraestructura para tareas de desarrollo de inteligencia artificial y aprendizaje automático (AI/ML). Aumenta los recursos durante la experimentación intensiva y los reduce a cero cuando no están en uso, lo que reduce los gastos operativos. Introduce funciones a escala empresarial que incluyen una gestión de acceso perfecta con uso compartido entre cuentas, actualizaciones de versiones automatizadas e integración con capacidades de IA de SageMaker, como personalización de modelos y canalizaciones. Sin necesidad de configuración de administrador y sin costo adicional, los científicos de datos pueden comenzar de inmediato a rastrear experimentos, implementar la observabilidad y evaluar el rendimiento del modelo sin demoras en la infraestructura, lo que simplifica la escala de las cargas de trabajo de MLflow en toda su organización mientras se mantiene la seguridad y la gobernanza.
En esta publicación, exploramos cómo estas nuevas capacidades lo ayudan a ejecutar grandes cargas de trabajo de MLflow, desde agentes de IA generativos hasta experimentación con modelos de lenguaje grandes (LLM), con rendimiento, automatización y seguridad mejorados utilizando SageMaker AI con MLflow.
Funciones de escala empresarial en SageMaker AI con MLflow
La nueva capacidad sin servidor MLflow en SageMaker AI ofrece administración de nivel empresarial con escalado automático, aprovisionamiento predeterminado, actualizaciones de versión fluidas, autorización simplificada de AWS Identity and Access Management (IAM), uso compartido de recursos a través de AWS Resource Access Manager (AWS RAM) e integración con Amazon SageMaker Pipelines y personalización de modelos. El término Aplicaciones MLflow reemplaza la terminología anterior de servidores de seguimiento de MLflow, lo que refleja el enfoque simplificado y centrado en las aplicaciones. Puede acceder a la nueva página de aplicaciones MLflow en Amazon SageMaker Studio, como se muestra en la siguiente captura de pantalla.
Una aplicación MLflow predeterminada se aprovisiona automáticamente cuando crea un dominio de SageMaker Studio, lo que agiliza el proceso de configuración. Está listo para la empresa desde el primer momento y no requiere aprovisionamiento ni configuración adicional. La aplicación MLflow escala elásticamente con su uso, aliviando la necesidad de planificación manual de la capacidad. Sus cargas de trabajo de capacitación, seguimiento y experimentación pueden obtener los recursos que necesitan automáticamente, simplificando las operaciones y manteniendo el rendimiento.
Los administradores pueden definir una ventana de mantenimiento durante la creación de la aplicación MLflow, durante la cual se realizan actualizaciones de la versión local de la aplicación MLflow. Esto ayuda a que la aplicación MLflow esté estandarizada, segura y continuamente actualizada, minimizando los gastos generales de mantenimiento manual. La versión 3.4 de MLflow es compatible con este lanzamiento y, como se muestra en la siguiente captura de pantalla, extiende MLflow a ML, aplicaciones de IA generativa y cargas de trabajo de agentes.
Gestión de identidades simplificada con aplicaciones MLflow
Hemos simplificado el control de acceso y los permisos de IAM para los equipos de ML con la nueva aplicación MLflow. Un conjunto de permisos optimizado, como sagemaker:CallMlflowAppApi, ahora cubre operaciones comunes de MLflow, desde la creación y búsqueda de experimentos hasta la actualización de información de seguimiento, lo que hace que el control de acceso sea más sencillo de aplicar.
Al habilitar límites de permisos de IAM simplificados, los usuarios y administradores de plataformas pueden estandarizar los roles de IAM en equipos, personas y proyectos, facilitando un acceso consistente y auditable a los metadatos y experimentos de MLflow. Para obtener configuraciones completas de políticas y permisos de IAM, consulte Configurar permisos de IAM para aplicaciones MLflow.
Uso compartido entre cuentas de aplicaciones MLflow mediante AWS RAM
Los administradores quieren administrar de forma centralizada su infraestructura de MLflow y al mismo tiempo proporcionar acceso a diferentes cuentas de AWS. Las aplicaciones MLflow admiten el uso compartido entre cuentas de AWS para el desarrollo colaborativo de IA empresarial. Al utilizar AWS RAM, esta característica ayuda a los administradores de plataformas de inteligencia artificial a compartir una aplicación MLflow sin problemas entre científicos de datos con cuentas de consumidores de AWS, como se ilustra en el siguiente diagrama.
Los administradores de la plataforma pueden mantener un dominio SageMaker centralizado y gobernado que aprovisiona y administra la aplicación MLflow, y los científicos de datos en cuentas de consumo separadas pueden iniciar e interactuar con la aplicación MLflow de forma segura. Combinado con los nuevos permisos de IAM simplificados, las empresas pueden lanzar y administrar una aplicación MLflow desde una cuenta administrativa centralizada de AWS. Al utilizar la aplicación MLflow compartida, un consumidor científico de datos intermedio puede registrar su experimentación de MLflow y sus cargas de trabajo de IA generativas mientras mantiene la gobernanza, la auditabilidad y el cumplimiento desde un plano de control de administrador de plataforma única. Para obtener más información sobre el uso compartido entre cuentas, consulte Introducción a AWS RAM.
Integración de SageMaker Pipelines y MLflow
SageMaker Pipelines está integrado con MLflow. SageMaker Pipelines es un servicio de orquestación de flujo de trabajo sin servidor diseñado específicamente para la automatización de MLOps y LLMOps. Puede crear, ejecutar y monitorear sin problemas flujos de trabajo de aprendizaje automático repetibles de un extremo a otro con una interfaz de usuario intuitiva de arrastrar y soltar o el SDK de Python. Desde una canalización de SageMaker, se creará una aplicación MLflow predeterminada si aún no existe una, se puede definir un nombre de experimento de MLflow y las métricas, parámetros y artefactos se registran en la aplicación MLflow como se define en el código de su canalización de SageMaker. La siguiente captura de pantalla muestra un ejemplo de canalización de aprendizaje automático que utiliza MLflow.
Personalización del modelo de SageMaker e integración de MLflow
De forma predeterminada, la personalización del modelo de SageMaker se integra con MLflow, proporcionando vínculos automáticos entre los trabajos de personalización del modelo y los experimentos de MLflow. Cuando ejecuta trabajos de ajuste de personalización del modelo, se utiliza la aplicación MLflow predeterminada, se selecciona un experimento y las métricas, parámetros y artefactos se registran automáticamente. En la página del trabajo de personalización del modelo de SageMaker, puede ver las métricas obtenidas de MLflow y profundizar en métricas adicionales dentro de la interfaz de usuario de MLflow, como se muestra en la siguiente captura de pantalla.
Conclusión
Estas características hacen que las nuevas aplicaciones MLflow en SageMaker AI estén listas para cargas de trabajo de IA generativa y aprendizaje automático a escala empresarial con una carga administrativa mínima. Puede comenzar con los ejemplos proporcionados en el repositorio de ejemplos de GitHub y en el taller de AWS.
Las aplicaciones MLflow generalmente están disponibles en las regiones de AWS donde SageMaker Studio está disponible, excepto en las regiones GovCloud de China y EE. UU. Lo invitamos a explorar la nueva capacidad y experimentar la eficiencia y el control mejorados que brinda a sus proyectos de ML. Comience ahora visitando la página de detalles del producto SageMaker AI con MLflow y Acelere el desarrollo de IA generativa usando MLflow administrado en Amazon SageMaker AI, y envíe sus comentarios a AWS re:Post para SageMaker o a través de sus contactos habituales de soporte de AWS.
Sobre los autores
Sandeep Raveesh es arquitecto de soluciones especializado en GenAI en AWS. Trabaja con los clientes a lo largo de su recorrido AIOps a través de la capacitación de modelos, aplicaciones de IA generativa como agentes y la ampliación de casos de uso de IA generativa. También se centra en estrategias de comercialización que ayudan a AWS a crear y alinear productos para resolver los desafíos de la industria en el espacio de la IA generativa. Puede conectarse con Sandeep en LinkedIn para conocer las soluciones de inteligencia artificial generativa.
Rahul Easwar es gerente senior de productos en AWS y lidera las aplicaciones de inteligencia artificial de socios y MLflow administradas dentro del equipo AIOps de Amazon SageMaker. Con más de 20 años de experiencia que abarca desde startups hasta tecnología empresarial, aprovecha su experiencia empresarial y su MBA de Chicago Booth para crear plataformas de aprendizaje automático escalables que simplifiquen la adopción de la IA para organizaciones de todo el mundo. Conéctese con Rahul en LinkedIn para obtener más información sobre su trabajo en plataformas de aprendizaje automático y soluciones de inteligencia artificial empresarial.
Jessica Liao es diseñadora senior de UX en AWS y dirige el diseño de MLflow, gobernanza de modelos e inferencia dentro de Amazon SageMaker AI, dando forma a cómo los científicos de datos evalúan, gobiernan e implementan modelos. Aporta experiencia en el manejo de problemas complejos e impulso de la innovación centrada en el ser humano gracias a su experiencia en el diseño de sistemas de ciencias biológicas de ADN, que ahora aplica para hacer que las herramientas de aprendizaje automático sean más accesibles e intuitivas a través de la colaboración multifuncional.