DéjàVu: un sistema de aprendizaje automático para un sistema de servicio LLM eficiente y tolerante a fallas
El aumento en la implementación de modelos de lenguaje grande (LLM) como GPT-3, OPT y BLOOM en varias interfaces digitales, incluidos chatbots y herramientas de resumen de texto, ha puesto…