Microsoft AI propone BitNet Distillation (BitDistill): una canalización liviana que ofrece hasta 10 veces más ahorro de memoria y aproximadamente 2,65 veces más velocidad de CPU
Microsoft Research propone BitNet Distillation, un proceso que convierte los LLM de precisión total existentes en estudiantes BitNet de 1,58 bits para tareas específicas, manteniendo al mismo tiempo una precisión…