A medida que los modelos de IA se vuelven cada vez más sofisticados y especializados, la capacidad de entrenar y personalizar rápidamente los modelos puede significar la diferencia entre el liderazgo de la industria y quedarse atrás. Es por eso que cientos de miles de clientes usan la infraestructura, herramientas y flujos de trabajo totalmente administrados de Amazon Sagemaker AI escalar y avanzar en el desarrollo del modelo de IA. Desde su lanzamiento en 2017, Sagemaker AI ha transformado la forma en que las organizaciones se acercan al desarrollo del modelo de IA al reducir la complejidad al tiempo que maximizan el rendimiento. Desde entonces, hemos seguido innovando implacablemente, agregando más de 420 nuevas capacidades desde el lanzamiento para brindar a los clientes las mejores herramientas para construir, entrenar y implementar modelos AI de manera rápida y eficiente. Hoy, nos complace anunciar nuevas innovaciones que se basan en las ricas características de Sagemaker AI para acelerar cómo los clientes construyen y capacitan a los modelos de IA.
Amazon Sagemaker Hyperpod: la infraestructura elegida para desarrollar modelos de IA
AWS lanzado Amazon Sagemaker Hyperpod en 2023 para reducir la complejidad y maximizar el rendimiento y la eficiencia al construir modelos de IA. Con Sagemaker Hyperpod, puede escalar rápidamente el desarrollo generativo del modelo de IA en miles de aceleradores de IA y reducir la capacitación del Modelo de Fundación (FM) y los costos de desarrollo de ajuste fino en hasta un 40%. Muchos de los mejores modelos de hoy están entrenados en Sagemaker Hyperpod, incluidos modelos de Hugging Face, Luma AI, Perplexity AI, Salesforce, Thomson Reuters, Writer y Amazon. Mediante el entrenamiento Amazon Nova FMS en Sagemaker Hyperpod, Amazon ahorró meses de trabajo y una mayor utilización de recursos de cálculo a más del 90%.
Para agilizar aún más los flujos de trabajo y hacer que sea más rápido desarrollar e implementar modelos, una nueva interfaz de línea de comandos (CLI) y el kit de desarrollo de software (SDK) proporciona una interfaz única y consistente que simplifica la gestión de la infraestructura, unifica el envío de trabajos a través de la capacitación y la inferencia, y admite flujos de trabajo basados en recetas y personalizados con monitorización y control integrados. Hoy, también estamos agregando dos capacidades a Sagemaker Hyperpod que pueden ayudarlo a reducir los costos de capacitación y acelerar el desarrollo del modelo de IA.
Reduzca el tiempo para solucionar problemas de rendimiento de días a minutos con Sagemaker HyperPod Observabilidad
Para llevar nuevas innovaciones de IA al mercado lo más rápido posible, las organizaciones necesitan visibilidad en las tareas de desarrollo de modelos de IA y calcular recursos para optimizar la eficiencia de la capacitación y detectar y resolver interrupciones o cuellos de botella de rendimiento lo antes posible. Por ejemplo, investigar si una falla laboral de capacitación o ajuste fino fue el resultado de un problema de hardware, los científicos de datos y los ingenieros de aprendizaje automático (ML) desean filtrar rápidamente para revisar los datos de monitoreo de las GPU específicas que realizaron el trabajo en lugar de navegar manualmente a través de los recursos de hardware de un clúster completo para establecer la correlación entre la falla laboral y un problema de hardware.
El nuevo Capacidad de observabilidad en Sagemaker Hyperpod Transforma cómo puede monitorear y optimizar sus cargas de trabajo de desarrollo de modelos. A través de un tablero unificado preconfigurado en Grafana administrada por Amazoncon los datos de monitoreo publicados automáticamente a un Servicio administrado por Amazon para Prometeo Espacio de trabajo, ahora puede ver las métricas de rendimiento de tareas de IA generativas, la utilización de recursos y la salud del clúster en una sola vista. Los equipos ahora pueden detectar rápidamente cuellos de botella, evitar retrasos costosos y optimizar los recursos de cómputo. Puede definir alertas automatizadas, especificar métricas y eventos de tareas específicas de casos de uso, y publicarlas en el tablero unificado con solo unos pocos clics.
Al reducir el tiempo de solución de problemas de días a minutos, esta capacidad puede ayudarlo a acelerar su camino para la producción y maximizar el rendimiento de sus inversiones de IA.
DatologyAI crea herramientas para seleccionar automáticamente los mejores datos sobre los cuales capacitar a los modelos de aprendizaje profundo.
“Estamos entusiasmados de usar la solución de observabilidad de un solo clic de Amazon Sagemaker HyperPod. Nuestros miembros del personal superior necesitaban información sobre cómo estamos utilizando recursos de GPU. El Grafana Dashboards preconstruido nos dará exactamente lo que necesitamos, con una visibilidad inmediata a las métricas críticas, desde la utilización de la GPU de tarea, al mismo tiempo, al mismo tiempo, al mismo tiempo, al mismo tiempo, al mismo tiempo, al mismo tiempo, al mismo tiempo, al mismo tiempo, para mantener el desempeño de la GPU. Aprecia el poder del lenguaje de consulta Prometheus, me gusta el hecho de que puedo escribir mis propias consultas y analizar métricas personalizadas sin preocuparme por los problemas de infraestructura “.
–Josh Wills, miembro del personal técnico de Datologyai
–
Articul8 ayuda a las empresas a construir aplicaciones de IA generativas empresariales sofisticadas.
“Con la observabilidad de Sagemaker HyperPod, ahora podemos implementar nuestros sistemas de recolección y visualización de métricos en un solo clic, guardando los días de nuestra configuración manual de los equipos de la configuración manual y mejorar los flujos de trabajo de observabilidad del clúster y las ideas. Nuestros científicos de datos pueden monitorear rápidamente las métricas de desempeño de tareas, como los problemas de hardware, como los problemas de hardware, a avances sin concentrar. Misión de entregar innovación accesible y confiable a nuestros clientes “.
–Renato Nascimento, Jefe de Tecnología de Articul8
–
Implementar modelos JumpStart de Amazon Sagemaker en Sagemaker HyperPod para inferencia rápida y escalable
Después de desarrollar modelos de IA generativos en Sagemaker HyperPod, muchos clientes importan estos modelos a Roca madre de Amazonun servicio totalmente administrado para construir y escalar aplicaciones generativas de IA. Sin embargo, algunos clientes quieren utilizar sus recursos de calculación de Sagemaker HyperPod para acelerar su evaluación y mover modelos a la producción más rápido.
Ahora puedes implementar modelos de peso abierto de Amazon Sagemaker JumpStart, así como modelos personalizados ajustados, en Sagemaker HyperPod en cuestión de minutos sin configuración de infraestructura manual. Los científicos de datos pueden ejecutar inferencia en los modelos SageMaker JumpStart con un solo clic, simplificando y acelerando la evaluación del modelo. Este aprovisionamiento sencillo y único reduce la configuración de infraestructura manual, proporcionando un entorno de inferencia confiable y escalable con un esfuerzo mínimo. Las descargas de modelos grandes se reducen de horas a minutos, aceleran las implementaciones de modelos y acortan el tiempo para comercializar.
–
H.Ai existe para superar los límites de la superinteligencia con AI agente.
“Con Amazon Sagemaker Hyperpod, utilizamos el mismo cómputo de alto rendimiento para construir e implementar los modelos de base detrás de nuestra plataforma de IA agente. Esta transición perfecta de la capacitación a la inferencia racionalizó nuestro flujo de trabajo, un tiempo reducido a la producción y entregó un rendimiento consistente en entornos en vivo. Sagumaker HyperPod nos ayudó a ir de experimentación a un impacto en el mundo real con mayor velocidad y eficiencia”. “.”.
–Laurent Sifre, cofundador y CTO en H.Ai
–
Acceda a la perfección los poderosos recursos de cómputo de Sagemaker AI de entornos de desarrollo locales
Hoy, muchos clientes eligen entre el amplio conjunto de entornos de desarrollo integrados totalmente administrados (IDES) disponibles en Sagemaker AI para el desarrollo de modelos, incluidos Jupyterlab, editor de código basado en Code-Oss y RStudio. Aunque estos IDE permiten configuraciones seguras y eficientes, algunos desarrolladores prefieren usar IDE locales en sus computadoras personales para sus capacidades de depuración y amplias opciones de personalización. Sin embargo, los clientes que usan un IDE local, como Visual Studio Code, no podrían ejecutar fácilmente sus tareas de desarrollo de modelos en Sagemaker AI hasta ahora.
Con Nuevas conexiones remotas con Sagemaker AIlos desarrolladores y los científicos de datos pueden conectarse de manera rápida y perfecta a Sagemaker AI desde su código VS local, manteniendo el acceso a las herramientas personalizadas y los flujos de trabajo familiares que los ayudan a trabajar de manera más eficiente. Los desarrolladores pueden construir y capacitar a los modelos de IA utilizando su IDE local, mientras que Sagemaker AI administra la ejecución remota, por lo que puede trabajar en su entorno preferido mientras se beneficia del rendimiento, la escalabilidad y la seguridad de Sagemaker AI. Ahora puede elegir su IDE preferido, ya sea que sea un IDE o código VS de nube completamente administrado, para acelerar el desarrollo del modelo de IA utilizando la poderosa infraestructura y la escalabilidad perfecta de Sagemaker AI.
–
Cyberark es un líder en seguridad de identidad, que proporciona un enfoque integral centrado en controles privilegiados para proteger contra las amenazas cibernéticas avanzadas.
“Con las conexiones remotas con Sagemaker AI, nuestros científicos de datos tienen la flexibilidad de elegir el IDE que las hace más productivas. Nuestros equipos pueden aprovechar su configuración local personalizada al acceder a la infraestructura y los controles de seguridad de Sagemaker AI. Como una primera compañía de seguridad, esto es extremadamente importante para nosotros, ya que garantiza los datos sensibles protegidos, al tiempo que permite que nuestros equipos sean colocados de seguridad y el producto de seguridad y el producto de Boost,” es extremadamente importante para nosotros, a medida que garantiza los datos sensibles, al tiempo que permite que nuestros equipos sean de forma segura y el producto de seguridad y el producto de Boost “.
–Nir Feldman, vicepresidente senior de ingeniería en Cybark
–
Cree modelos de IA generativos y aplicaciones más rápido con MLFlow 3.0 totalmente administrado
A medida que los clientes en todas las industrias aceleran su desarrollo generativo de IA, requieren capacidades para rastrear experimentos, observar el comportamiento y evaluar el rendimiento de los modelos y las aplicaciones de IA. Clientes como Cisco, Sonrai y Xometry ya están utilizando MLFLOW administrado en Sagemaker AI para administrar eficientemente los experimentos del modelo ML a escala. La introducción de Mlflow 3.0 totalmente administrado en Sagemaker AI Hace que sea sencillo rastrear experimentos, monitorear el progreso del entrenamiento y obtener información más profunda sobre el comportamiento de los modelos y las aplicaciones de IA utilizando una herramienta única, lo que ayuda a acelerar el desarrollo generativo de IA.
Conclusión
En esta publicación, compartimos algunas de las nuevas innovaciones en Sagemaker AI para acelerar cómo puede construir y capacitar a los modelos de IA.
Para obtener más información sobre estas nuevas características, Sagemaker AI y cómo las empresas están utilizando este servicio, consulte los siguientes recursos:
Sobre el autor
Ankur mehrotra Se unió a Amazon en 2008 y actualmente es gerente general de Amazon Sagemaker AI. Antes de Amazon Sagemaker AI, trabajó en la construcción de los sistemas publicitarios de Amazon.com y la tecnología de precios automatizada.