Una nueva investigación de IA presenta LoRAMoE: una versión complementaria de una combinación de expertos (Moe) para mantener el conocimiento mundial en la alineación del modelo lingüístico
Los modelos de lenguajes grandes (LLM) han demostrado ser notablemente eficaces en numerosos trabajos. Para aprovechar plenamente el potencial de los modelos, es necesario un ajuste fino supervisado (SFT) para…