Ingeniería de kernel de mezcla de expertos en Amazon SageMaker AI
La combinación de expertos (MoE) es una arquitectura escasamente activada que escala la capacidad del modelo de lenguaje grande (LLM) mientras mantiene baja la computación por token. Debido a que…