Conozca LLMRouter: un sistema de enrutamiento inteligente diseñado para optimizar la inferencia de LLM seleccionando dinámicamente el modelo más adecuado para cada consulta
LLMRouter es una biblioteca de enrutamiento de código abierto del U Lab de la Universidad de Illinois Urbana Champaign que trata la selección de modelos como un problema de sistema…