Supercargue su rendimiento de LLM con Amazon Sagemaker Gran Modelo Inferteer V15
Hoy, estamos entusiasmados de anunciar el lanzamiento del contenedor V15 de Amazon SageMaker Large Model Inferle V15, alimentado por VLLM 0.8.4 con soporte para el motor VLLM V1. Esta versión…