Sakana AI y NVIDIA presentan TwELL con núcleos CUDA para una inferencia del 20,5 % y una aceleración del entrenamiento del 21,9 % en LLM
Escalar modelos de lenguajes grandes (LLM) es costoso. Cada token procesado durante la inferencia y cada gradiente calculado durante el entrenamiento fluye a través de capas de avance que representan…